Ông được tặng Huân chương Hồ Chí Minh,năm 2012 ông được Nhà nước truy tặng danh hiệu Anh hùng lực lượng vũ trang nhân dân;và một số trường phổ thông trung học tại huyện Ba Tơ (đặt tại Xã Ba Vì), huyện Sơn Hà (Trường Trung hoc phổ thông Phạm Kiệt được xây dựng tại xã Sơn Kỳ) thuộc tỉnh Quảng Ngãi được mang tên ông [4]. Nhà Lưu niệm Trung tướng Phạm Kiệt đặt tại xã Tịnh Minh, huyện Sơn Tịnh do Bộ Chỉ huy Biên phòng tỉnh Quảng Ngãi đầu tư xây dựng.